O Google atualizou recentemente seus termos de uso para IA generativa, afirmando explicitamente que os clientes podem implantar suas ferramentas de IA generativa para 'decisões automatizadas' em áreas de 'alto risco', como saúde, desde que haja supervisão humana. De acordo com a versão mais recente da 'Política de Uso Proibido de IA Generativa' publicada pelo Google na terça-feira, os clientes podem usar a IA generativa do Google para tomar 'decisões automatizadas' que possam ter um 'impacto significativamente adverso' nos direitos individuais. Contanto que haja algum tipo de supervisão humana, os clientes podem usar a IA generativa do Google para decidir.

Com o surgimento da inteligência artificial, a exploração de 'decisões automatizadas' por empresas e governos gerou preocupações generalizadas entre o público. Um recente relatório do consumidor revelou que mais de 72% dos entrevistados expressaram desconforto com o uso de IA em entrevistas de emprego, aprovação de empréstimos bancários, avaliação de elegibilidade para aluguel e monitoramento por reconhecimento facial, com 45% sentindo-se 'muito desconfortáveis'. Mais da metade dos entrevistados demonstrou preocupação com o monitoramento por reconhecimento facial de IA, e cerca de um terço disse sentir-se 'muito desconfortável'. Em relação ao diagnóstico médico e planos de tratamento, metade dos entrevistados também se mostrou relutante.